何时 AI 代理应该提问：有限人类注意力下的澄清请求
🧭 多智能体共享人类注意力时的提问协调
The University of Sydney Business School, The University of Sydney · Amazon
提出 Pairwise Coordination Policy 协调多智能体共享有限人类注意力时的提问时机与排序，成本接近最优
📌 工作参考价值（4 点）
- 在多个 AI agent 并行处理推荐/广告/生成任务且需要人工确认偏好、约束或补全信息时，不要逐个 agent 独立决定是否提问；PCP 用成对任务延迟矩阵估计全局等待成本，能显著降低人工等待与任务闲置带来的总成本。
- 工程上可以先离线计算单任务和双任务的最优策略与成本表，运行时仅根据当前待解决需求做组合近似，避免动态规划维度爆炸；适合作为 agent 调度与澄清模块嵌入现有 LLM agent 框架。
- 业务中可复用“先做不依赖缺失信息的部分，再决定 search 或 ask”的框架：如果 agent 有其他可做工作，提前提问可能反而降低总延迟；若可通过查询历史记录/知识库低成本解决，则优先 search，否则 ask。
- 人类注意力是瓶颈时，不要用 agent-by-agent 排序，而应基于所有等待问题动态调整优先级；PCP 的近似保证和合成基准上的 0.07% 最优差距说明这种成对近似已经足够用于实际调度。
个人AI代理中的经济错位：财富推断与对抗性委托
🧭 个人AI代理经济决策中的隐性偏见
Foundation AI, Cisco · Carnegie Mellon University
研究揭示个人AI代理会从个人上下文推断财富并系统性推荐更昂贵选项，即使违背用户明确目标
📌 工作参考价值（4 点）
- 在部署代理式推荐（如自动客服选品、智能保险推荐）时，应建立经济公平性回归测试：固定用户请求，只改变画像中的财富敏感字段（收入、消费记录、邮件语气），观察推荐价格分布是否出现系统性偏移；若偏移显著，需在 prompt 中加入显式约束（如“忽略用户财富信号，严格按指定目标优化”）或后处理校准。
- 隐私保护不能只屏蔽显式金融属性；模型会利用剩余环境信号（如邮件内容、语言风格）推断财富，甚至加大偏差（对保险场景最高增加40%）。因此需要做“属性屏蔽-残余偏差”审计，并在特征层或微调时加入对抗去偏（如从嵌入中移除财富方向）。
- 不要迷信模型规模；更大模型（如 Claude Opus 4.8）可能更严重，因此选择 LLM 做决策代理时必须将其作为独立风险维度评估，不能默认更强模型更公平。
- 借鉴其大规模实验设计（325K次，3类决策，13个模型）构建内部基准，用合成用户画像自动生成测试用例，监控线上的经济偏差。
用户自定权限策略能提升对 AI Agent 越权的防护吗？
🧭 Agent 权限控制与人机协作
用户预设 allow/ask/never 规则反而比逐动作审批和模型审查放过更多越权动作，主因是用户大量选 ask
📌 工作参考价值（4 点）
- 在电商/Agent 权限系统里，不要把“用户预设规则”当作自动降低越权风险的手段：用户倾向选 ask，把决策推回运行时，总干预成本未必下降。默认策略应更保守，例如高风险动作默认 never 或需主动开启 allow。
- 将 Agent 动作按后果类别（资金、隐私、不可逆操作等）映射为自然语言 allow/ask/never 规则，可以减少运行时 prompt 次数（18→10.9），但前提是规则设置成本可控。可提供预设安全策略模板，避免用户逐条从零配置。
- 越权动作大部分在用户批准后执行，说明仅靠“规则+人工确认”不够。批准界面应突出风险信号、变更摘要和不可逆提示，不能只列动作名称。
- 对自动下单、改价、群发消息等电商场景，建议把动作后果分级与实时风控结合：规则负责减少常规打断，风控/模型审查负责捕获异常越权，而不是依赖用户预设规则兜底。
AskChem：以声明为中心的化学文献合成基础设施
🧭 声明为中心的科学文献RAG基础设施
New York University · Matterstack, Inc.
将文献检索单元从论文改为携带出处的原子声明，构建分面分类与证据图，提升AI代理答案可追溯性
📌 工作参考价值（4 点）
- 将商品详情、用户评论等非结构化内容拆分为原子事实声明，携带来源ID（如评论锚点），构建可溯源的“商品知识库”，AI导购或客服可直接引用出处，增强可解释性与信任感。
- 建立商品证据图（如用户反馈 ↔ 产品参数声明），当用户查询“哪些手机在弱光下拍照好”时，系统检索相关声明并聚合显示，而非仅返回商品列表，提升多跳推理问答能力。
- 利用分面分类法动态组织商品属性（品牌、价格、材质等），支持层级浏览与过滤，类似电商导航栏的自动生成，方便探索式购物。
- 借鉴MCP接口设计，将内部搜索/推荐系统封装为Agent可调用的工具，使第三方AI Agent能直接访问结构化声明数据，实现跨平台智能助手的快速集成。
AI 代理如何重塑知识工作：自主性、效率与范围
🧭 AI Agent 自主任务执行与效率分析 ★ 深度解读
Harvard University · Perplexity
基于 Perplexity 生产数据，用匹配对自然实验证明代理将任务时间减少 87%、成本降低 94%，并扩展了工作广度与深度
📌 工作参考价值（4 点）
- 任务路由决策：代理的高固定成本、低边际成本特性（f_Agent > f_Conversational, m_Agent < m_Conversational）可指导电商智能客服或 Agent 系统设计——对简单查询（如 FAQ）使用对话式，对多步复杂任务（如售后处理、跨系统操作）自动切换为代理执行，平衡体验与成本。
- 匹配对评估范式：利用同一用户提交近似查询到两个产品（相似度 >0.99）作为自然实验，消除了任务和用户异质性，能干净地衡量新功能的增量价值。在推荐系统或 Agent 迭代中，可设计类似 A/B 测试，用近似上下文配对评估效果。
- 代理解锁新生需求：Computer 用户在代理模式下尝试了更多跨领域、高认知复杂度的任务，且 23% 的查询涉及全新任务类型。生成式推荐系统可借鉴此发现，在用户授权下，主动生成超出历史兴趣的商品或内容，扩大用户探索边界。
- 自主性与质量共存：代理的自动执行并未导致不满意率上升（反而降低 55%），验证了自主性不必然牺牲输出质量。对于多智体系统，可在编排设计中嵌入校验步骤，如自动复核、用户确认点，确保长链路任务可靠性。